Beyond Retrieval: Learning Compact User Representations for Scalable LLM Personalization
TAP-PER：用紧凑前缀替代冗长提示，实现可扩展的大模型个性化
🧭 LLM 个性化 · 用户嵌入 · 前缀微调 ★ 深度解读
Microsoft · Shanghai International Studies University · Zhejiang University · The Hong Kong Polytechnic University
用可学习的紧凑用户前缀替换显式提示和每用户适配器，实现可扩展、时序感知的 LLM 个性化。
📌 工作参考价值（4 点）
- 用户状态前缀可作为长期兴趣嵌入：在电商推荐或对话系统中，可以为每个用户维护一个轻量级嵌入（仅32K参数），离线训练后在线快速适应，大幅降低存储与部署成本。
- 查询感知的时序记录前缀替代显式检索：借鉴DIN式注意力和可学习的时间衰减，直接对用户全量交互历史进行加权，省去BM25等检索器，避免检索质量对个性化效果的波动，适合行为序列丰富的场景。
- 共享桥接LoRA降低参数冗余：冻结任务适配后的骨干LLM，仅训练一个共享的LoRA模块来深度融合前缀信号，避免为每个用户单独维护一个大尺寸适配器，千级用户时总参数量仅为传统方法的约一半。
- 支持在线增量更新不停服：新反馈到来时，只需对用户前缀做几次梯度更新即可吸收偏好变化，共享模块不动，便于在电商流式场景中实现持续个性化，无需全量重训。